Новиот AI систем на компанијата Google, наречен Med-Gemini, неодамна направи грешка која многумина во медицинската заедница ги остави збунети. Додека анализирал снимка од мозок, AI пријавил проблем во „basilar ganglia“ – што не постои.
Најверојатно мислел на „basal ganglia“ (базални ганглии), вистински дел од мозокот кој е важен за движењата и емоциите – но го помешал со „basilar artery“ (базиларна артерија), што е нешто сосема друго. Иако ваквата грешка може да звучи безопасно, во медицински контекст може да има сериозни последици.
Грешка во научен труд
Според The Verge, грешката се појавила во истражувачки труд што Google го објавил годинава за да ги прикаже можностите на Med-Gemini. Истата формулација се нашла и во блог-пост. Првично, никој во Google не ја забележал грешката. Неврологот Брајан Мур ја идентификувал и приватно ја пријавил на компанијата. Google тивко го коригирал блог-постот, заменувајќи го терминот со „basal ganglia“, но јавно не кажал ништо за измената. Истражувачкиот труд сè уште не е ажуриран.
Подоцна Google тврдел дека се работи само за печатна грешка. Но, многу лекари не го прифатиле тоа објаснување, велејќи дека ова е класичен пример на таканаречена AI „халуцинација“ – кога системот измислува нешто и го претставува како факт. Во медицина, тоа е сериозен проблем, бидејќи грешките можат да бидат опасни.
Лекари како Маулин Шах кој работи во голем болнички систем, нагласуваат дека ваквите грешки не смеат да се игнорираат. Дури и најмала промена во формулацијата може да доведе до сосема поинаква дијагноза или терапија. Ако лекарите слепо се потпрат на AI, можно е воопшто да не ја забележат грешката.
Загрижува и фактот што Google веќе ја тестира оваа вештачка интелигенција во вистински болници. Уште еден нивни модел, Med-Gemini, исто така покажал знаци на конфузија. Во одредени случаи, дава точна дијагноза кога прашањето е детално поставено, но кога е формулирано поедноставно не го препознава проблемот.
Стручњаците велат дека вештачката интелигенција може да биде корисна во здравството, но само со внимателен надзор. Овие алатки често звучат самоуверено, дури и кога грешат што ја зголемува потребата лекарите сè да проверуваат двапати. Како што рече еден радиолог:
„Овие системи не велат ‘не знам’. Тие едноставно кажуваат нешто што звучи точно. Во тоа е проблемот.“
Извор: web-mind.rs
